Tăng Chủ không có vợ con. Về sau ông xin một đứa trẻ, con của người em, về làm con nuôi, đó là ông Đình Tây[1].GS. Nguyễn Văn Hầu mô tả:Tướng mạo ông cao lớn, miệng rộng, tay dài, tiếng nói sang sảng mà tâm tính bao giờ cũng thuần hậu.

Và khi Phật Thầy dựng lên cái trại ruộng ở Hưng Thới, thì người ta đã thấy ông Tăng Chủ có mặt bên thầy đầu tiên. Kể từ đó, ông là người thay thầy truyền đạo, phát phù trị bịnh, chiêu nạp dân cư và cùng với hai ông là Đình Tây và Phạm Văn Lăng tổ chức việc "phá lâm, lập làng".

Năm 1859, sau khi Phật Thầy mất ba năm, nhân có sự bất đồng ý kiến với ông Lăng, ông bèn trở lại làng Xuân Sơn lập một ngôi Tam Bảo (nay là đình Thới Sơn)[2] rồi cùng với người con nuôi là Đình Tây về nơi đó hành đạo.

Tăng Chủ mất tại đình Thới Sơn vào ngày 27 tháng 10 năm Mùi, thọ được trên 80 tuổi. Hiện nay mộ ông (mộ không đắp nấm) nằm cách đình khoảng trăm mét. Trên bia có ghi mấy dòng chữ: